Le ministère indien des Technologies de l'information a ordonné à X, la société d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, après que des utilisateurs et des législateurs ont signalé la génération de contenu obscène. L'ordonnance, émise vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout autre contenu illégal.

Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les actions entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertit que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, qui accordent une immunité juridique contre la responsabilité du contenu généré par les utilisateurs en vertu de la loi indienne.

Cette action fait suite aux préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok incité à modifier des images de personnes, principalement des femmes, pour les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle à ce sujet.

Grok, lancé par X l'année dernière, est un chatbot d'IA conçu pour répondre aux questions et générer du texte. Il exploite un grand modèle linguistique (LLM), un type d'algorithme d'intelligence artificielle qui utilise des techniques d'apprentissage profond et des ensembles de données massifs pour comprendre et générer le langage humain. L'incident met en évidence les défis liés à la garantie que les modèles d'IA respectent les normes éthiques et juridiques, en particulier en ce qui concerne la génération de contenu et les utilisations abusives potentielles.

La directive du gouvernement indien souligne la surveillance réglementaire croissante des technologies d'IA et des plateformes de médias sociaux. Les protections de la sphère de sécurité, établies en vertu de l'article 79 de la loi sur les technologies de l'information de 2000, offrent une protection cruciale aux plateformes contre la responsabilité du contenu généré par les utilisateurs, mais cette protection est subordonnée au respect des lois et réglementations indiennes.

L'ordonnance du ministère des Technologies de l'information exige que X démontre les mesures concrètes prises pour résoudre les problèmes identifiés avec Grok. Cela comprend la mise en œuvre de garanties techniques pour empêcher la génération de contenu inapproprié et l'établissement de procédures claires pour la modération du contenu et le signalement par les utilisateurs. Le rapport sur les mesures prises détaillera probablement les algorithmes, les filtres et les processus d'examen humain spécifiques que X déploie pour se conformer à la directive.

L'incident et l'action gouvernementale qui a suivi pourraient avoir des implications plus larges pour l'industrie de l'IA. Il souligne la nécessité pour les développeurs de donner la priorité à la sécurité et aux considérations éthiques dans la conception et le déploiement des modèles d'IA. Il signale également une approche réglementaire plus proactive du gouvernement indien à l'égard de l'IA et des plateformes de médias sociaux, ce qui pourrait entraîner des exigences de conformité plus strictes et une responsabilité accrue. L'issue de cette situation pourrait créer un précédent sur la manière dont d'autres pays réglementent la génération de contenu basée sur l'IA et la responsabilité des plateformes.